草庐IT

C++ Boost 多精度 cpp_int

全部标签

ruby-on-rails - Ruby float 学 - Sum Calc 中的精度问题

大家早上好我在float学方面遇到了一些问题,完全迷失在“.to_f”、“*100”和“.0”中!我希望有人能帮助我解决我的具体问题,并准确解释他们的解决方案为何有效,以便我下次理解这一点。我的程序需要做两件事:对一组小数求和,确定它们的和是否正好为1.0确定1.0与数字总和之间的差值-将变量的值设置为使总和等于1.0的精确差值。例如:[0.28,0.55,0.17]->总和应为1.0,但我一直得到1.xxxxxx。我正在以下列方式实现总和:sum=array.inject(0.0){|sum,x|sum+(x*100)}/100我需要此功能的原因是我正在读取一组来自excel的小数。

Ruby 浮点精度

据我了解,Ruby(1.9.2)float的精度为15位十进制数字。因此,我希望将floatx舍入到小数点后15位将等于x。对于此计算,情况并非如此。x=(0.33*10)x==x.round(15)#=>false顺便说一句,四舍五入到16位返回true。你能给我解释一下吗? 最佳答案 部分问题是0.33在底层格式中没有精确的表示,因为它不能用一系列1/2n项来表示。因此,当它乘以10时,乘以的数字与0.33略有不同。就此而言,3.3也没有精确表示。第一部分当数字没有精确的10进制表示时,在转换尾数中有信息的最低有效位时会有余数。

ruby - 如何以两位数的精度显示输出

这是我的代码classAtmattr_accessor:amount,:rem,:balanceTAX=0.50deftransaction@rem=@balance=2000.00@amount=gets.chomp.to_fif@amount%5!=0||@balance我的输出是Enteramountfortransaction100#userentersthisvalueSuccessfulTransactionYourbalanceis1899.5如您所见,“您的余额为1899.5”的输出仅显示一位精度。我需要帮助来理解和解决问题。我希望输出有两位数的精度。还有我该如何改进这

sql - Ruby on Rails 迁移中的 unsigned int 字段?

我怎样才能使populationunsigned?defself.upcreate_table:citiesdo|t|t.string:namet.integer:populationt.float:latitudet.float:longitudet.timestampsendend 最佳答案 这应该适合你。t.column:population,'integerunsigned' 关于sql-RubyonRails迁移中的unsignedint字段?,我们在StackOverflow

如何设置cpp_cppckeck opitions?

我已经下载了VIM插件cpp_cppcheck但已将其复制到~/.vim/ftplugin/c_cppcheck.vim它也可以使用C文件。它似乎运行良好,但我现在想激活该选项--enable-all就像一个可以在外壳上的人一样。在Cppcheck帮助窗口中,它说以下内容:g:cpp_cppcheck_optionsThecommandlineoptionsyouwanttopasstoCppcheck.ViewyourCppcheckdocumentationforthepossibleoptions.Notethatyoushouldn'tspecifyatemplatehere!Ifyo

在大型双重转换为未签名的INT中堆叠腐败

在Windows计算机上运行VisualC++,我发现以下代码行似乎是通过调用__dtoui3的呼叫损坏内存(此调用后一堆字节更改。具体来说,DBL_MAX的值似乎是在两次中打印的,在记忆中的随机位置行)doubletemp=DBL_MAX;unsignedintblissfullyUnaware=(unsignedint)temp;但是,以下没有:doubletemp=0;unsignedintblissfullyUnaware=(unsignedint)temp;谁能阐明为什么会发生这种情况?看答案[cons.fpint]/1浮点类型的prvalue可以转换为整数类型的prvalue。转换

如果整数,则 Ruby 将 float 舍入为 int

在ruby​​中,如果float是整数,我想将其转换为int。例如a=1.0b=2.5a.to_int_if_whole#=>1b.to_int_if_whole#=>2.5基本上,我试图避免在任何没有小数的数字上显示“.0”。我正在寻找一种优雅的(或内置的)方式来做defto_int_if_whole(float)(float%1==0)?float.to_i:floatend 最佳答案 一个简单的方法是:classFloatdefprettifyto_i==self?to_i:selfendend那是因为:irb>1.0==1=

ruby - 设置Ruby中 float 的显示精度

在Ruby中可以设置float的显示精度吗?类似于:z=1/3z.to_s#=>0.33333333333333z.to_s(3)#=>0.333z.to_s(5)#=>0.33333或者我是否必须覆盖Float的to_s方法? 最佳答案 z.round(2)或x.round(3)是最简单的解决方案。参见http://www.ruby-doc.org/core-1.9.3/Float.html#method-i-round.也就是说,这只会确保它不超过那么多位数。在1/3的情况下没问题,但如果你说0.25.round(3)你会得到0

ruby - Ruby 中的 to_s 与 to_str(以及 to_i/to_a/to_h 与 to_int/to_ary/to_hash)

我正在学习Ruby,我看到了一些让我有点困惑的方法,特别是to_s与to_str(同样,to_i/to_int,to_a/to_ary,&to_h/to_hash).我读到的内容解释说,较短的形式(例如to_s)用于显式转换,而较长的形式用于隐式转换。我真的不明白to_str实际是如何使用的。to_str会定义字符串以外的东西吗?你能给出这个方法的实际应用吗? 最佳答案 首先请注意,所有这些都适用于每对“短”(例如to_s/to_i/to_a/to_h)与“long”(例如to_str/to_int/to_ary/to_hash)强

ruby-on-rails - ruby /rails : convert int to time OR get time from integer?

我们可以这样做:i=Time.now.to_i例如电流:i=1274335854我可以将i转换回时间吗? 最佳答案 使用Time.at:t=Time.at(i) 关于ruby-on-rails-ruby/rails:convertinttotimeORgettimefrominteger?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.com/questions/2871402/